Tư Mã Nghiệp là con của Ngô Hiếu vương Tư Mã Yển (司馬晏), cháu nội Tấn Vũ đếTư Mã Viêm, vua đầu tiên của nhà Tấn. Mẹ ông là vương phi họ Tuân, con gái của Tuân Húc. Ban đầu, ông trở thành người kế thừa ngôi vị Tần vương (秦王) của người bác là Tư Mã Giản (司馬柬).
